Vũ Thị Mai Phương sinh ra tại Hà Nội, nguyên quán của bà ở huyện Văn Giang, tỉnh Hưng Yên.[1] Hồi bé, bà được học vĩ cầm từ một người quen của gia đình.[1] Năm 1960, bà thi vào Trường Âm nhạc Việt Nam (nay là Học viện Âm nhạc quốc gia Việt Nam).[2] Tới hôm thi, bà quên không mang theo cây vĩ cầm nên được các giáo viên gợi ý thi xướng âm. Sau khi đạt kết quả thi xuất sắc, bà nhận được sự quan tâm của nghệ sĩ Vũ Tuấn Đức, người thành lập ra khoa Âm nhạc dân tộc (nay là khoa Âm nhạc truyền thống) và được nghệ sĩ khuyên nên theo học song song cả vĩ cầm và đàn tỳ bà.[2]